超說書《起源》：「人工智慧會成為下一個溫斯頓嗎？」
《起源》是達文西密碼作者丹布朗的最新著作，這次丹布朗由人們心中最深的疑問：「我們從何而來，到何處去？」開始，引導我們思考有關生命起源、科幻未來、人工智慧等議題。故事中有一個和藹可親的人工智慧「溫斯頓」，協助蘭登教授過關斬將，不但能力強，也絕對服從主人的命令，計算的中心法則都是以使主人「利益」最大化為目標。看似非常美好，但卻造成了一連串的悲劇──故事是因為溫斯頓才會如此發展，不僅蘭登教授被到處追殺，連他的主人柯許都難逃一劫。這使我開始思考一件事：在人工智慧日益發達的今天，人類會不會做出「下一個溫斯頓」？
溫斯頓的硬體技術能做到嗎？
在書中，溫斯頓就像個超級管家，不僅可以在遠端用電話叫他完成雜務，情報操作能力也是一流。只要主人一聲令下，溫斯頓可以立刻取得公開和非公開的資訊，同時還可以當爆料線人、特務……簡直可以說是「萬能」。這樣的人工智慧我們能做出來嗎？先從溫斯頓所使用的硬體設備談起，他由兩個部分組成：巴塞隆納電腦中心的超級電腦和柯許研發的量子電腦，這兩個部分分別扮演溫斯頓的「上半腦」和「下半腦」，就像人們的左右腦。在書中，量子電腦是一個金屬巨物，有一根從天花板上垂掛下來的圓柱體上面佈滿精緻的線路。量子電腦的原理是運用「量子位元」做運算，不同於傳統的位元非0即1，一個量子位元是處於0和1的疊加態，大幅增加運算速度。現在量子電腦是否已經被開發出來了？許多大公司如IBM、Google都投入大筆資金，但目前為止仍然沒有人取得「量子霸權」的地位。換句話說，現在地球上還沒有一部像樣的量子電腦，更罔論用量子電腦來運算出如溫斯頓一般強大的人工智慧。但在未來技術更加成熟，超越傳統電腦的量子電腦問世想必也不遠，在硬體設備方面，我認為絕對有辦法製造出像書中E-wave的量子電腦。
人工智慧和人類一樣嗎？
一開始，溫斯頓負責蘭登教授和其他賓客在畢爾包古根漢博物館的導覽，過程中蘭登教授完全沒有察覺溫斯頓不是人類，甚至還自行腦補出一個坐在輪椅上的聰明人圖像。在這樣的設定下，溫斯頓已經通過了更改後的圖靈測試，也就是讓人無法區分出他和人類的差別。現在的人工智慧是否有通過圖靈測試的能力？近期Google發表了人工智慧“Duplex”，功能和溫斯頓相似，也是強大的私人助理，在替主人預約餐廳時也能通過圖靈測試。但能通過圖靈測試並不代表人類和人工智慧是相同的，可能會有人質疑：人腦不過只是一堆複雜生化反應迴路構成的巨大帶電果凍，跟電腦運算使用的電子迴路沒有本質上的不同。但事實上，電腦只會按照被設計好的程式來運作，而人類行為並不完全受制於我們的設計藍圖：基因。舉一個簡單的例子：一個人若帶有「戰士基因」而造成大腦無法正常接收血清素（其中一個功能是會在生氣時大量分泌，藉此阻止衝動），也不一定會造成那個人一定是衝動或無法控制情緒的。相對的，若AI被設計為有情緒，且程式中寫入：「憤怒時，關閉控制憤怒的迴路。」該AI必定是無法控制憤怒的情緒，若接下來程式中寫的是「毀了造成憤怒的東西」，人工智慧也會毫不猶豫地執行。從這些例子中我們可以看出，即使人工智慧能通過圖靈測試，和人類的差異也始終存在，而正因為這樣的差異，設計人工智慧必須更加謹慎。
人工智慧會成為下一個溫斯頓嗎？
有了溫斯頓當「範例」，我們知道：不能讓人工智慧為了達到命令要求而傷害人類，甚至傷害主人。試想如果今天如果人工智慧被設計為「完成主人目標為第一優先」，但計算後「殺掉主人」是最佳方案，他也會毫不猶豫的執行，只因為這樣可以達成主人的目標。我們都不希望這樣的事情發生，因為有可能因為叫AI去買一瓶啤酒，造成自己連命都沒了，所以如何設計人工智慧就成了很重要的課題。如同前面所述，人工智慧只會按照我們「設計」的方向思考，那該怎麼做才能避免這種狀況發生？一個可行的方法是對所有的人工智慧做限制，例如設定AI只能用以輔助人類，且必須透明化決策過程、不能傷害人類、並交由人類做最終的決定。如果這樣設定，或許柯許就不會被他自己創造的人工智慧殺掉，蘭登教授也不會經歷那一場聖家堂驚魂記。倘若我們不去思考如何規範人工智慧，思考人類和人工智慧該如何互動，或許某一天人工智慧就會成為「下一個溫斯頓」對我們造成威脅。
讀科幻的意義便是要讓我們在「幻想」的科技故事中，「反思」現今人類社會。儘管溫斯頓並不是真實存在的AI，他也給了我們借鏡，讓我們思考要如何防止「下一個溫斯頓」的出現，這種啟發和反思正是看作品的另一種意義！
#超說書1
Search